스팸 메일 감지는 전형적인 이진분류(binary classifiaction)이다.

지도 학습 알고리즘을 통해 두 클래스를 구분할 수 있는 규칙을 학습한다.

규칙: 결정 경계(decision boundary)

두개 이상의 클래스 레이블이 존재할 경우 “다중 분류(multiclass classification)”을 이용할 수 있다.

손으로 쓴 글자 인식이 가장 전형적이 예시이다.

회귀는 연속적인 출력 값을 예측하는 분석이다.

예측변수 혹은 설명 변수(predictor variable or explanatory variable)와

연속적인 반응 변수 또는 결과(response variable or outcome)가 주어졌을 때,

출력 값을 예측하기 위한 두 변수 사이의 관계를 찾는다.

(일반적으로 평균 제곱 거리 사용) 이 직선의 기술기와 절편을 사용하여 새로운 데이터 출력 값을 예측

강화 학습의 피드백은 정답(ground rate)의 레이블이나 값이 아닌, 보상 함수로 얼마나 행동이 좋은지 측정한 값이다.

에이전트는 환경과 상호 작용하여 보상이 최대화되는 일련의 행동을 강화 학습으로 학습한다.

시행착오(trial and error) 방식이나 신중하게 세운 계획을 사용한다.

강화 함수의 대표적인 예시는 체스 게임이다. 에이전트는 체스판의 상태(환경)에 따라 기물의 이동을 결정한다.

이 후 게임이 끝난 후 보상은 승리나 패배로 정의할 수 있다.

강화 학습의 다양한 형태가 있지만,

가장 일반적인 형태는 강화학습 에이전트가 환경과 상호작용한 후 보상을 최대화하는 것이다.

(보상은 전체 목표를 달성하는 것으로 정의할 수 있다.)

반복되는 학습은 양의 보상과 연결되는 게임과 음의 보상에 대하여 학습하고

지연된 피드백을 통하여서 얻은 전체 보상을 최대화 하는 일련의 행동을 학습한다.

비지도 학습법을 이용하면 알려진 출력 값이나 보상 함수의 도움을 받지 않고 의미 있는 정보를 추출하기 위해

데이터 구조를 탐색할 수 있다.

비지도 학습은 예측이 목표가 아니라, 데이터 구성과 특징을 밝히는 것이 목적이다.

분석 과정에서 어느정도 유사성을 공유하고 다른 클러스터와는 비슷하지 않은 샘플 그룹을 형성한다.

정보를 조직화하고, 데이터에서 의미 있는 관계를 유도하는 방법이다

예들 들어 마케터가 관심사를 기반으로 고객을 그룹으로 나누어 각각에 맞는 마케팅 프로그랭을 개발한다.

차원 축소를 통해 관련 있는 정보를 대부분 유지하면서 더 작은 차원을 가진 부분 공간(subspace)로 데이터를 압축할 수 있다.

이는 데이터 시각화에도 유용하다. 고차원 특성을 1차원 또는 2차원 3차원 특성 공간으로 투영해서 3D나 2D 산점도(scatterplot)나

히스토그램(histogram)으로 시각화 할 수 있다.